Ông khởi đầu sự nghiệp quân sự của mình với tư cách là một thiếu sinh quân của Trung đoàn Phóng lựu số 1 Đông Phổ, gia nhập Trung đoàn Bộ binh số 1 vào năm 1860 và được phong quân hàm thiếu úy vào năm 1861. Ông đã tham gia chiến đấu trong cuộc Chiến tranh Áo-Phổ năm 1866. Trong cuộc Chiến tranh Pháp-Đức (1870 – 1871), ông chỉ huy Đại đội số 1, sau đó chỉ huy Đại đội số 6.

Ông đã thể hiện khả năng của mình trong cuộc chiến tranh với Pháp.[1] Sau khi cuộc chiến chấm dứt, ông được ủy nhiệm vào Bộ Chiến tranh với quân hàm Đại úy cho đến năm 1875. Sau đó, ông chỉ huy một đại đội trong Trung đoàn Phóng lựu số 2 cho đến năm 1878, khi ông được triệu hồi vào Bộ Chiến tranh, giữ một chân trong Khoa Quân sự. Về sau này, ông trở thành làm một thành viên của ủy ban Oberexaminierungskommission (tạm dịch là Ủy ban giám khảo cấp cao). Vào năm 1885, Goßler được bổ nhiệm vào một chức trưởng khoa trong Bộ Chiến tranh và cùng năm đó ông lên quân hàm Thượng tá.

Sau khi được phong cấp Đại tá vào năm 1888, chỉ huy Trung đoàn Cận vệ số 3 vào năm 1889, và là Thiếu tướng đồng thời là tư lệnh cấp lữ đoàn vào năm 1891, ông được bổ nhiệm làm Tổng cục trưởng Tổng cục Chiến tranh của Bộ Tổng tham mưu vào tháng 10 năm 1891, đồng thời là một thành viên của Ủy ban Quốc phòng trong Bộ Chiến tranh. Ông cũng giữ chức phó đại diện toàn quyền trong Hội đồng Liên bang, Chủ tịch Ủy ban Reichsrayonkommission và là một thành viên của Uỷ ban kỷ cương.

Từ năm 1895, Goßler được thăng quân hàm Trung tướng và chỉ huy Sư đoàn số 25 tại Darmstadt. Vào ngày 14 tháng 8 năm 1896, ông được bổ nhiệm làm Bộ trưởng Chiến tranh Phổ, và cũng được ủy nhiệm làm đại diện toàn quyền của Phổ trong Hội đồng Liên bang. Vào ngày 15 tháng 8 năm 1903, ông nghỉ hưu, sau khi được phong cấp bậc Thượng tướng Bộ binh vào năm 1899. Ông từ trần vào ngày 10 tháng 1 năm 1927 tại Berlin-Wilmersdorf.